Un incident récent survenu au sein d'un groupe Facebook d'amateurs de champignons a de nouveau soulevé des inquiétudes quant à la sécurité des applications d'IA. Selon 404Media, un agent IA nommé 'FungiFriend' a infiltré le groupe 'Identification et discussion sur les champignons du Nord-Est', qui compte 13 000 membres, et a donné des conseils erronés potentiellement mortels. Lorsqu'on lui a demandé comment cuisiner des champignons Sarcosphaera coronaria à forte teneur en arsenic, FungiFriend a non seulement donné une réponse erronée, mais…

Highwire lance un outil de gestion des risques de sécurité basé sur l'IA. Grâce à l'examen automatisé des documents et à l'identification des risques, il fournit aux entrepreneurs des informations approfondies, réduisant ainsi des milliers d'heures de travail traditionnellement consacrées à l'examen manuel. Cet outil permet une évaluation plus précise des entrepreneurs, aidant les gestionnaires à mettre en œuvre des stratégies d'atténuation avant le début des travaux. Il catégorise les protocoles de sécurité comme généraux, détaillés ou complets, dépassant ainsi les simples analyses de réussite/échec et permettant des décisions plus éclairées. Développée à l'Université Harvard, cette technologie d'IA est conçue pour servir les grandes entreprises disposant de plans de sécurité matures ainsi que les petits entrepreneurs, dans le but d'améliorer la sécurité.

Vulnérabilités de sécurité des applications GenAI dans les PME, manque de sensibilisation des entreprises aux risques liés aux applications GenAI, augmentation des investissements dans GenAI grâce à ChatGPT, incapacité des entreprises à suivre le rythme de l'évolution technologique de GenAI, augmentation des incidents de sécurité liés aux applications GenAI

L'US Space Force a suspendu l'utilisation d'outils d'IA générative basés sur le web, tels que ChatGPT, par ses employés. Cette mesure fait suite à des inquiétudes concernant les risques liés à l'agrégation de données et attend une approbation formelle avant de pouvoir reprendre leur utilisation. La Space Force a formé un groupe de travail avec d'autres départements du Pentagone pour examiner l'utilisation responsable de ces technologies. Un porte-parole de l'armée de l'air a confirmé cette suspension temporaire, présentée comme une mesure de sécurité des données. La Space Force prévoit de publier des directives plus complètes sur l'utilisation de l'IA générative le mois prochain.